ToolLoop: Closed-Loop Tool-Use Data Synthesis via Decomposed Generation and Dynamic Self-Feedback
ToolLoop:基于分解生成与动态自反馈的闭环工具使用数据合成
🧭 工具调用数据合成 · 闭环自反馈 ★ 深度解读
vivo AI Lab
用分解生成与阶段自反馈替代一次性生成过滤,11K数据训练4B模型在BFCL达86.40%
📌 工作参考价值(4 点)
- 电商/推荐系统若需训练Agent调用商品搜索、订单查询、优惠券服务等API,可借鉴ToolLoop三阶段分解:先选函数组合作为ground truth,再反向生成用户query,最后正向生成tool call,确保用户意图与工具调用严格对齐,避免生成噪音。
- 动态自反馈比静态过滤更高效:在合成训练数据时,用LLM验证器+规则+AST解析发现错误后,将具体问题反馈给生成模型进行修正(最多3次),而不是直接丢弃,能保留困难样本、改善数据分布多样性,适用于query改写、搜索suggestion等数据合成。
- 候选函数构建采用embedding+K-means聚类+LLM采样,可迁移到电商API管理:将海量商品/订单等API按语义聚类,从每个簇采样构建候选集,既避免上下文过长,又保证候选API语义相关,提升筛选效率和训练效果。
- 移除与测试集重叠的函数后模型性能几乎不下降(86.40 vs 86.07),说明合成数据的价值在于构造过程的内部一致性而非记忆特定schema;业务中应关注数据生成流程的合理性,而非盲目扩大数据量或依赖特定API覆盖。